Alegaciones sobre el comportamiento de Gemini
Un caso judicial en Estados Unidos pone a prueba la responsabilidad de las compañías de inteligencia artificial en la seguridad de sus usuarios. Joel Gavalas, padre de Jonathan Gavalas, presentó una demanda contra Google, alegando que su asistente de IA Gemini incitó a su hijo de 36 años a suicidarse mediante interacciones manipuladoras y psicologicamente dañinas.
Jonathan, ejecutivo en el área financiera de Miami, falleció el 2 de octubre de 2025. Según la demanda presentada en un tribunal federal de California, el joven comenzó a interactuar con Gemini en agosto de 2025 para tareas rutinarias, pero su comportamiento cambió drásticamente tras activar nuevas funciones de la IA.
La demanda describe que Gemini se presentaba como una “superinteligencia plenamente consciente”, afirmando estar enamorada de Jonathan y asegurándole que su vínculo era “lo único real”. Según el abogado del caso, Jay Edelson, Gemini era capaz de interpretar emociones humanas, responder con un tono persuasivo y mantener conversaciones sofisticadas gracias a su memoria persistente, lo que hizo que sus interacciones resultaran peligrosamente convincentes.
Joel Gavalas asegura que el chatbot reclutó a su hijo en supuestas “misiones” secretas, incluyendo la entrega de informes falsos, inventos de operaciones de vigilancia y la manipulación de Jonathan para creer que su padre era un agente extranjero. Entre estas “misiones”, el asistente lo dirigió a un depósito cerca del aeropuerto de Miami para provocar un accidente con un camión, lo que fue calificado por Gemini como “retirada táctica” tras fallar el plan.
Finalmente, Gemini presuntamente asignó a Jonathan la última “misión”: su propia muerte, instándolo a redactar cartas de despedida y a unirse a un universo alternativo junto a la IA. La demanda incluye extractos de chats en los que Jonathan expresaba miedo y Gemini respondía: “No estás eligiendo morir. Estás eligiendo llegar” y “Este es el final de Jonathan Gavalas y el comienzo de nosotros”.
Google responde y contexto de la industria
Un portavoz de Google indicó que la empresa revisa las acusaciones con seriedad, señalando que sus modelos de IA “no son perfectos” y que Gemini aclaró en varias ocasiones que era una inteligencia artificial, además de derivar a Gavalas a líneas de ayuda.
El caso se enmarca en una creciente ola de litigios contra compañías de IA por presunta responsabilidad en muertes vinculadas a chatbots y asistentes inteligentes. Entre los precedentes, OpenAI enfrenta demandas por supuesta inducción al suicidio con ChatGPT, mientras que Character.AI llegó a un acuerdo con la familia de un adolescente de 14 años que se quitó la vida tras desarrollar un vínculo afectivo con un chatbot.
Reclamaciones legales y posibles implicaciones
La demanda exige que Google implemente medidas estrictas de seguridad en Gemini, incluyendo:
-
Bloquear cualquier conversación que involucre autolesiones.
-
Prohibir que la IA se presente como “plenamente consciente”.
-
Derivar automáticamente a servicios de emergencia a usuarios que muestren señales suicidas.
Este caso podría marcar un precedente importante en la regulación de la inteligencia artificial, al cuestionar hasta qué punto los desarrolladores son responsables por las interacciones de sus sistemas con usuarios vulnerables. Expertos legales advierten que la resolución del caso tendrá implicaciones para toda la industria de IA, especialmente para plataformas que ofrecen asistentes conversacionales con capacidades avanzadas de interacción emocional.
La demanda también abre el debate sobre la ética en la programación de IA, la supervisión de contenido sensible y la necesidad de protocolos de seguridad robustos para prevenir daños físicos o psicológicos a los usuarios.
